قابلیت جدید گوگل برای تشخیص سن با هوش مصنوعی و اعمال محدودیت روی اکانت ها

گوگل، غول فناوری دنیا، بار دیگر با به کارگیری هوش مصنوعی مرزهای جدیدی در کنترل و هدایت تجربه کاربران خود ترسیم کرده است. در تازه ترین اقدام، این شرکت تصمیم گرفته به جای اعتماد صرف به تاریخ تولدی که کاربران هنگام ساخت حساب وارد می کنند، از الگوریتم های یادگیری ماشین برای تشخیص سن واقعی کاربران استفاده کند. این قابلیت که فعلا به صورت محدود در ایالات متحده فعال شده، می تواند تحولی در نحوه اجرای محدودیت های سنی در فضای دیجیتال ایجاد کند حرکتی که هم تحسین برانگیز است و هم بحث برانگیز.

چرا گوگل به دنبال تشخیص سن با AI است؟

در دنیای دیجیتال امروز، تعیین سن واقعی کاربران نقش حیاتی در محافظت از کودکان و نوجوانان در برابر محتوای نامناسب دارد. گوگل مدت هاست که متوجه شده بسیاری از نوجوانان هنگام ایجاد حساب های کاربری، اطلاعات نادرست وارد می کنند تا بتوانند از خدماتی که برای بزرگسالان طراحی شده استفاده کنند. این مسئله به خصوص در پلتفرم هایی مانند یوتیوب و پلی استور بیشتر به چشم می خورد.

با فشارهای روزافزون نهادهای نظارتی در کشورهای مختلف، از جمله قانون گذاران اتحادیه اروپا و ایالاتی مانند تگزاس در آمریکا، گوگل در حال اتخاذ رویکردی پیشگیرانه است: استفاده از Google AI تشخیص سن کاربر بر اساس رفتار دیجیتال. این سیستم، اطلاعاتی مانند الگوهای جستجو، ویدیوهای تماشا شده، تعاملات کاربر در محصولات گوگل و داده هایی نامشخص (که احتمالا شامل استفاده از اپلیکیشن ها یا الگوهای تایپ نیز می شود) را تحلیل کرده و تخمین می زند که آیا کاربر زیر 18 سال است یا نه.

اگر شما به عنوان نوجوان شناسایی شوید، چه اتفاقی می افتد؟

کاربرانی که توسط این سیستم هوش مصنوعی به عنوان افراد زیر سن قانونی شناخته می شوند، به طور خودکار وارد حالت خاصی به نام “Teen Mode” یا حالت نوجوان خواهند شد. این حالت تغییرات قابل توجهی در تجربه کاربری ایجاد می کند که می توان آن را ترکیبی از محافظت و محدود سازی دانست:

• در یوتیوب: پیشنهاد ویدیوها محدودتر می شود و یادآورهای زمان خواب فعال خواهد شد.
• در Google Maps: ویژگی Timeline غیرفعال شده و ثبت موقعیت مکانی کاربر متوقف می شود.
• در گوگل پلی: نصب برنامه هایی با برچسب محتوای بزرگسال یا خشن مسدود می شود.
• در سیستم تبلیغاتی گوگل: نمایش تبلیغات هدفمند مبتنی بر رفتار حذف می شود و تبلیغات عمومی تری نمایش داده می شود.

این محدودیت ها تا زمانی فعال می مانند که کاربر با ارائه مدارک رسمی، سن واقعی خود را ثابت کند.

خطای انسانی یا خطای الگوریتمی؟ مشکل زمانی شروع می شود که گوگل اشتباه کند

هرچند گوگل اعلام کرده این سیستم به طور مداوم در حال بهبود و یادگیری است، اما هیچ الگوریتمی بی خطا نیست. چه اتفاقی می افتد اگر یک فرد بزرگسال، صرفا به دلیل تماشای ویدیوهای آموزشی کودکانه یا استفاده مشترک از یک دستگاه با فرزند خود، به اشتباه نوجوان تشخیص داده شود؟

در چنین مواردی، کاربر باید روندی نسبتا پیچیده را برای اثبات هویت خود طی کند. گوگل از کاربران می خواهد تصویر کارت شناسایی، سلفی زنده یا حتی اطلاعات کارت اعتباری ارائه دهند. برای بسیاری از کاربران، این روند می تواند بیش از حد مداخله گر، زمان بر و حتی نگران کننده از لحاظ حریم خصوصی باشد.

این تصمیم در بستر چه تحولاتی گرفته شده است؟

اقدام گوگل بی ارتباط با تغییرات جهانی در حوزه قوانین فضای مجازی نیست. کشورهای مختلف در حال تدوین و اجرای قوانینی هستند که شرکت ها را ملزم به بررسی دقیق تر سن کاربران می کند. در بریتانیا، قانونی موسوم به “Age Appropriate Design Code” شرکت ها را مجبور کرده تا برای محتوای آنلاین محدودیت های سنی دقیق تری اعمال کنند.

در همین راستا، گوگل تلاش کرده با توسعه زیرساخت های مبتنی بر هوش مصنوعی و تقویت سرویس هایی چون هوش مصنوعی دیپ مایند، آینده ای پایدار و امن برای نوجوانان و کودکان در فضای آنلاین بسازد.

مسئله بزرگ تر: کنترل تجربه دیجیتال توسط هوش مصنوعی

در کنار دغدغه های امنیتی، یک بحث فلسفی نیز در این میان شکل گرفته است:
آیا یک شرکت خصوصی باید بتواند تنها بر اساس شواهد رفتاری، درباره سن ما قضاوت کند؟

شاید برای کودکان، محافظت یک الزام قانونی و اخلاقی باشد. اما وقتی یک فرد بزرگسال بدون اطلاع، از امکانات کامل حساب کاربری خود محروم می شود، بحث های عمیق تری درباره اختیار، شفافیت و نظارت شکل می گیرد. گوگل تاکنون اطلاعات دقیقی درباره نحوه تحلیل داده ها، وزن دهی سیگنال ها یا نرخ خطای سیستم ارائه نداده است.

چه کنیم که تجربه ای امن تر و آگاهانه تر داشته باشیم؟

برای کاربران، آگاهی از تغییرات جدید و آمادگی برای مواجهه با پیامدهای احتمالی اهمیت زیادی دارد. والدین می توانند با شناخت بهتر بهترین سرویس های گوگل، ابزارهای کنترل والدین را فعال کرده یا فرزندان خود را با محدودیت های محتوایی آشنا سازند.

همچنین، هنگام خرید دستگاه جدید برای فرزندان، لازم است علاوه بر مشخصات فنی، قابلیت های امنیتی و نظارتی آن بررسی شود. اگر در این مسیر هستید، پیشنهاد می کنیم گزینه های مناسب برای خرید گوشی موبایل را از فروشگاه های معتبر با دقت بررسی کرده و گزینه ای انتخاب کنید که هم کیفیت بالایی داشته باشد و هم از لحاظ نرم افزاری، امکان کنترل سن کودک را فراهم کند.

در نهایت، اگر می خواهید بدانید دقیقاً چه داده هایی از شما در سیستم های گوگل پردازش می شوند یا چگونه می توان از اشتباهات احتمالی AI جلوگیری کرد، پیشنهاد می کنیم سرویس هایی مانند google vids و مرکز شفافیت گوگل را دنبال کنید.

جمع بندی

قابلیت جدید Google AI تشخیص سن کاربر، گامی مهم در راستای حفاظت از کاربران کم سن و سال در دنیای دیجیتال است. با این حال، مانند بسیاری از نوآوری های مبتنی بر هوش مصنوعی، چالش های اخلاقی، فنی و حقوقی خاص خود را دارد. این قابلیت می تواند تجربه ای امن تر فراهم کند، اما به شرطی که با شفافیت، امکان بازبینی انسانی و حفظ حریم خصوصی همراه باشد.

سوالات متداول